PolyU COMP5511
แนวคิดปัญญาประดิษฐ์
การสร้างแบบจำลองลำดับและ The Transformer
วัตถุประสงค์การเรียนรู้
- เปรียบเทียบสถาปัตยกรรม: แยกความแตกต่างระหว่าง RNNs, LSTMs และสถาปัตยกรรม Transformer
- กลไก Self-Attention: อธิบายงานวิจัย 'Attention Is All You Need' และกลไก self-attention
- Encoder และ Decoder: ทำความเข้าใจบทบาทของ Encoder และ Decoder ในโมเดลอย่าง BERT และ GPT